Evolving Semantic Indexes for Generative Retrieval
进化语义索引用于生成式检索
🧭 生成式推荐 · 语义索引进化 ★ 深度解读
Santa Clara University · Coupang
用 LLM 进化搜索自动优化生成式检索的语义索引，以 1M 参数 proxy 加速评估，在多个数据集显著提升召回率
📌 工作参考价值（4 点）
- 用小 proxy 模型做快速评估：训练 1M 参数的 GPT-2 只需 20 分钟，替代 1B 目标生成器 5 小时，单次评估成本降低 15×。在电商场景中，若目标生成器训练周期以周计，可以用小模型先过滤候选 SID/索引方案，大幅节省试错成本。
- 联合优化 SID 构建与冲突处理：联合进化比单独进化 SID 或冲突处理提升更显著（NQ R@100 +4.75 vs +1.58），提示在实际生成式推荐系统中，应把语义 token 的分组方式和同组内 disambiguation token 作为整体设计，而不是固定一个再调另一个。
- 使用可执行程序搜索自动发现索引规则：让 LLM 直接突变 SID 构建代码（如残差量化的距离度量、codebook 大小、是否加入 query 对齐损失），可以自动发现非手工设计的有效策略，例如 max-cosine 残差分配、doc+query 混合向量等，适合业务中探索 semantic ID 生成策略。
- 注意 proxy 转移性的边界：代理评估对语义索引有效，但对训练目标等跨尺度不稳健。在业务上，如果要用小模型代理大模型评估，需要先在小范围校准代理与目标的秩相关性，并区分“改输入/索引”还是“改优化器/损失”，后者要谨慎使用代理。